黄河被尊为“四渎之宗”、“百泉之首”是中华民族的母亲河。我们的祖先利用黄河进行航运以利通济的历史，可以追溯到先秦时代。
在三门峡河心的鬼门岛上发现过仰韶、龙山时期的陶片和石斧。在相近的张公岛上发现过仰韶、龙山和殷代的文化堆积物。“说明那些时候曾有人在这里居住过。现在，这两个石岛都在黄河激流之中，只有在枯水的时期，才能通过干涸的河床，走上河岸；而且面积很小”。（中国田野考古报告集：《三门峡漕运遗迹》第77页，1959年第一版。）这两个处于黄河水中的小岛，按照地形来看，当时的人类居住在上面不仅交通不方便，若没有船、筏渡河则不可能有衣食来源。因此，若小岛在仰韶、龙山、殷商时代就已存在，其遗物完全可以作为当时黄河已通船、筏的佐证。
另外，我国先仰韶时期、仰韶时期和龙山时期大量的文化遗迹密集地分布在古黄河的中游岸边。从三门峡、孟津、武陟、汲县、淇县一直到安阳一带都绵延不断。同时，也密集地分布在黄河的支流如渭水、洛水、泾水、无定河两岸。这也反映了当时的先民们优先选择黄河及其支流的岸边作为生活和居住的地点。《易经·系辞》里记载说：“黄帝刳木为舟，剡木为楫，舟楫之利，以济不通，致远以利天下，盖取诸涣。”“涣”就是木浮水上，象征着筏与船。黄帝及其部族主要的活动区域在黄河流域。如果当时有了舟楫，则是黄河航运的先声。
上述考古发现与古史传说记载十分吻合。例如：《史记·河渠书》载：夏代大禹治水，禹凿龙门，当时“陆行载车，水行载舟”。这里的“载舟”，当指黄河行船。《越绝书》也记载说：大禹时“以凿伊阙，通龙门。决江导河，东注于东海”。《山海经》记载“河水之间，附禺之山，帝顼与九嫔葬焉。……丘方圆三百里，丘南帝俊竹林在焉，大可为舟。竹南有赤泽水名曰封渊”。而顼所在的地方是今河南濮阳，是当时黄河流经的地方，因此，这一记载应与黄河通航有关。鉴于这些古代传说与考古发现的事实相吻合，足以证明它有一定的可靠性。
殷商时代留下了丰富的舟船和帆等文字记载。商代来往于黄河干道和支流的船，早已超越了“刳木为舟”的原始阶段，从甲骨文“舟”字的不同结构来分析，那时的木船已经根据不同的用途，在大小、形态上有许多种类了。
商后期定都安阳，并不是随意的选择，而有其深刻的历史地理背景。《战国策·魏策》记吴越时武侯说：“殷纣之国，左孟门，右漳、滏，前带山，后背河”。安阳殷墟位于太行山脉与华北大平原交接的山前丘陵平原地带。这里也是古代南北交通大道的中段。东南有黄河流过，河道运输条件优越，是当时选择它作为全国政治中心的重要条件。坐落在洹水南岸的殷墟，是中国历史上可以肯定有确切位置的最早的一个都城。《史记·项羽本纪》载：“洹水南殷墟上”。北魏郦道元《水经注》说：“洹水出山，东迳殷墟北，《竹书纪年》曰‘盘庚即位，自奄迁于北蒙曰殷’，昔者项羽与章邯盟于此地矣。”至1982年止，已发现宫殿遗址56座，分布在南北长约280米，东西150米范围内。“殷王都系沿河而建”。城外有保卫宫殿区的“护城河”，也是当时对外通航的河道。这一航运条件是当时建都殷墟的重要条件。
除殷墟出土的甲骨文中有不少关于航运的记载外，殷墟的第四次发掘还出土大鲸的鱼骨。这是用大船到海上去捕获的。将这样大的鲸鱼从海上运到殷墟，通过黄河运输是最简单、便捷的途径。殷墟出土了很多龟甲，不仅数量多，而且个体大。其中相当一部分也要到海边才能获得，而最便捷的运输方式仍是黄河航运。可见，商代时舟船已经有了载物过大江大河的能力。
世传的上古文献中，也有黄河航运的记载。《尚书·盘庚》篇里说：“盘庚作，惟涉河以民迁”。顾颉刚、刘起钎认为“河”指的是“黄河”。商承祚认为“涉”的意思是“以舟为涉”。《史记·殷本纪》载：“盘庚之时，殷已都河北，盘庚渡河南，复居成汤之故居。乃五迁无定处。殷民恣胥皆怨，不欲徙。盘庚乃告谕诸侯大臣……。乃涉河南，治亳”。这样大规模的国都迁移，通过黄河来完成，反映了当时黄河鲁西、豫北段航运的能力。
另外，《诗经·殷武》记载：殷商的军队曾经“奋伐荆楚”，大军也曾渡过黄河。甲骨文中也记载了帝乙、帝辛时代，殷商军队征人方时，曾经渡过淮河、黄河，历时达200天左右，这样大规模的军队与物资运输，有的路程也是通过黄河航运来完成的。
《史记·周本纪》载：武王观兵于孟津黄河会盟诸侯时，师尚父命令说：“总尔庶众，与尔舟楫，后至者斩”。“武王渡河中流，白鱼跃入王舟中。武王俯取以祭，既渡”。这一“孟津”当为今孟县西南野水渡。又过了两年，周文王“率戎车三百乘，虎贲三千人，甲士四万五千人以东伐纣，于十一年十二月戊午师毕渡盟津”。那时黄河的航渡规模已相当可观了。
公元前780年前后，“秦公子钺(3个“牛”，音ben，“奔”字繁体）造舟于河，通秦晋之道”。公元前647年冬至前646年春，有著名的“泛舟之役”。据《左传》僖公十三年载：“晋荐饥，使乞籴于秦……秦于是乎输粟于晋，自雍（今陕西凤翔）及绛（今山西翼城县东南故城村，当时为晋国国都）”。当时晋国饥荒，向秦国购买大批粮食，在枯水季节尚能通过渭河进入黄河干道又入汾河通行载粮重船，络绎不绝。
公元前625年秦王伐晋，在浦州西边的河上架起了一座浮桥。史称“秦伯伐晋，济河焚舟”。《左传》昭公元年（前541）“晋侯造舟于河，十里舍车，自雍及绛”。“晋侯设享礼，造舟为梁，通秦晋之道”。
到了战国时期，魏惠王为了争霸中原，于公元前362年迁都大梁（开封），第二年开始挖通黄淮的水运工程——鸿沟。先“入河水于甫田”，然后从圃田泽开大沟至大梁。以荥泽、圃田泽为水源和水库，由荥泽（今郑州附近）引黄河水入中牟西圃田。再从大梁开河与淮河支流颍水相连，沟通了黄河与淮河水运。《史记·河渠书》载“自是之后，荥阳下引河，东南为鸿沟，以通宋、郑、陈、蔡、曹、卫，与济、汝、淮、泗会。……于齐通淄、济之间”。
今河南汲县山彪镇出土战国铜鉴上有“水陆攻战纹饰”，从水战部分的纹饰可以窥知当时黄河内的战船结构，船体窄长，船分上、下两层，下层有三、四个佩短剑的桨手，上层有四个击鼓、射箭、挥戈的武士。
